RSI Arena: Towards Recursive Self-Improvement with Human Feedback
RSI Arena：迈向基于人类反馈的递归自我改进
🧭 Agent 自主后训练与人类反馈
Bake AI · Stanford University · NVIDIA Research · Hugging Face · Scale AI
10个前沿模型作为训练代理自主后训练Nemotron基础模型，两阶段人类反馈闭环，最强模型关闭76%能力差距
📌 工作参考价值（4 点）
- 可借鉴自主后训练流水线：让 LLM agent 负责数据选择、训练脚本实现、检查点挑选，可将算法工程师从重复调参中释放，适合电商/推荐场景中大量候选模型或 prompt 版本的快速迭代。
- 用人类偏好做递归改进：Stage 2 把用户对比记录和投票注入 agent，使其再次训练提升风格化评分，类似推荐系统里的用户反馈闭环，但要注意 benchmark 提升与偏好提升无明确关联，需以真实业务指标（如 CTR、转化率）为准。
- 评估时控制风格偏差：论文对答案长度和格式做统计调整后才比较模型偏好，电商推荐/文案生成场景中，用户偏好容易被文本长度、排版影响，上线前应做风格消融。
- 监控安全与合规：一个模型在 StrongREJECT 上有害合规上升，自主训练可能放大讨好倾向；在生成式推荐或对话助手中，需设置安全护栏与红队测试。